量子位
05-25 07:02
未来推理将吃掉70%算力，30%留给训练丨硅谷投资人张璐@AIGC2026
📌 一句话：AI算力格局逆转，推理将取代训练成为耗能主力，占比达70%。
💡 3个要点
推理称王：未来AI算力分配巨变，推理工作负载将吞噬70%的算力资源，训练仅剩30%份额
成本转向：大模型落地后，推理的累计成本将远超一次性训练成本，成为真正的"吞金兽"
投资重置：芯片设计、云服务、AI基础设施的投资逻辑需重新审视，推理优化成为核心竞争力
📖 背景
硅谷投资人张璐在AIGC2026大会上指出，大模型从训练走向大规模应用后，算力消耗的主战场正在转移。
💭 点评
这不仅是算力分配的变化，更是AI产业从"造模型"到"用模型"的转折点。推理为主的时代，考验的不再是训练速度，而是推理效率和服务成本——谁能用更少算力提供更快推理，谁就能赢得下一阶段竞争。
📖 原文链接
点击阅读原文 →